iT邦幫忙

2026 iThome 鐵人賽

DAY 29
0

Day 29 封面:「感覺變快了」不是可採用的導入結論

Day 28 算完一次任務的總成本後,PM 把試辦階段的導入報告草稿發給我看,裡面一句話是「複核人員回饋感覺變快了,建議擴大試用」。我問了兩個問題:變快是跟什麼比?品質有沒有跟著掉?PM 答不上來,手上只有 AI 生成時間,沒算複核與返工,也沒有「以前」的對照資料,頂多把 Day 01 那張基準線卡片翻出來充數。但那張卡片任務範圍自選、難度不固定,只寫了「原本完成時間」的粗略描述,拿來比較時間,跟拿不同難度的任務硬比一樣站不住腳。需求書第七節問的「如何量測是否真的縮短撰寫時間、草稿被大幅修改或否決的比例」,答案不能只靠一句主觀印象。

核心概念:效率指標必須搭配品質護欄

只看效率容易被速度沖昏頭。我把「生成到定稿時間」「複核審查時間」跟「大幅修改或否決比例」「任務完成率」「平均引用錯誤數」放同一張表,後三項是品質護欄——速度變快、護欄跟著惡化,不能只摘速度那一半報告。「大幅修改或否決比例」對應需求書第七節那句話,「平均引用錯誤數」則對應另一題「引用既有內容如何兼顧品質」。

效率指標與品質護欄:五項指標的定義、資料來源與對應護欄行動

指標 定義 護欄行動
生成到定稿時間 系統產出草稿到複核人員定稿的時間 同時看修改或否決比例是否上升
複核審查時間 複核人員檢視、修改、標註的時間 同時看引用錯誤數是否增加
大幅修改或否決比例 大幅修改與否決兩類合計佔比 比例上升就先別擴大試用範圍
任務完成率 未被否決、有進入定稿流程的比例 與否決原因交叉比對,不能只看數字
平均引用錯誤數 複核時發現引用既有內容出錯的次數 錯誤數上升需加強複核強度

實作示範:先做一個配對前後測

要公平比較「有沒有 AI 協作」,不能拿兩個難度不同的任務硬比,得讓同一份規格跑一次人工、一次 Codex。我選的規格就是今天算指標的工具本身:ReviewMetricsCalculator,把一批複核紀錄彙總成上面五項指標。驗收條件固定:8 項測試全數通過人工覆核、calculate() 對空清單要丟例外,不能算出看似正常卻沒意義的平均值。

配對前後測設計:同一份規格,人工與 Codex 各實作一次,環境與驗收條件固定

public ReviewMetrics calculate(List<ReviewRecord> records) {
    Objects.requireNonNull(records, "records 不能為 null");
    if (records.isEmpty()) {
        throw new IllegalArgumentException("records 不能為空清單,沒有樣本無法計算指標");
    }
    long majorRevisionOrReject = records.stream()
            .filter(r -> r.outcome() == ReviewOutcome.MAJOR_REVISION
                    || r.outcome() == ReviewOutcome.REJECTED)
            .count();
    // 平均值與完成率計算省略,完整版見 ReviewMetricsCalculator.java
    return new ReviewMetrics(/* ... */);
}

人工版花了 48 分鐘,返工原因是漏了空清單防呆,被自己補的測試抓到。Codex 版花了 26 分鐘,返工原因不同:它把「任務完成率」直接定義成「1 減否決率」,漏算「大幅修改後仍算完成」,我補一句需求釐清才修正。兩邊最後收斂到同一份 8 項測試,差異只在耗時與返工原因,測試綠燈不代表理解正確。

Day 01 基準線卡片與 Day 29 配對資料集的差異:任務範圍、驗收條件、樣本數

分析:套用工具本身,看結果落在哪一格

工具寫完,我拿它跑兩批複核紀錄:基準線批次是人工從零撰寫草稿後送複核,AI 協作批次是系統生成草稿後送複核,同類文件、範圍相近,各 8 筆,屬示範規模的小樣本。

指標 基準線 AI 協作 差異
平均生成到定稿時間 104.0 分鐘 62.0 分鐘 -42.0 分鐘(約 -40%)
平均複核時間 21.1 分鐘 28.5 分鐘 +7.4 分鐘
大幅修改或否決比例 25.0% 37.5% +12.5 個百分點
任務完成率 87.5% 87.5% 持平
平均引用錯誤數 0.25 1.00 +0.75(為基準線的 4 倍)

時間少了四成,但複核人員得花更多時間盯著 AI 草稿,修改或否決比例跟著升高,引用錯誤數更翻了近四倍。四格決策規則很單純:兩者都改善就擴大試用,都退步就停止,只提升品質要評估額外時間是否值得,只提升速度則補強複核驗收。這次結果不是全面改善,落在「只提升速度」那格:該先補強複核驗收,不是急著擴大試用範圍。

結果對應決策矩陣:速度與品質的四種組合,本次結果落在「只提升速度」象限

效益與注意事項

量測的價值是校正「感覺變快了」這類主觀印象,這次資料讓我攔下 PM 那句「建議擴大試用」。但兩批各 8 筆屬示範規模,不足以做統計顯著性檢定;複核人員對 AI 草稿的熟悉度會隨時間改變,資料無法區分是工具效果還是經驗提升;兩批草稿主題相近但非完全相同任務,仍可能有難度落差,只能算相關,不是因果。

小結與 Day 30 預告

配對前後測加一個彙總工具,把「感覺變快了」換成可追溯的數字:速度提升四成,複核負擔、修改否決比例、引用錯誤數卻都變差,落在「補強複核驗收」而非「擴大試用」。Day 30 會回顧整個系列,收斂 AI 與人類能力邊界的心法,也展望 context、skill、Agent 這些能力該怎麼取捨。

參考資料

AI輔助生成系統-需求書


上一篇
Day 28|成本與效能管理
下一篇
Day 30|What's next?
系列文
挑戰 30 天把 ChatGPT 與 Codex 放進軟體開發流程 共 30 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言